[レポート] How Rocket Mortgage elevates client experiences with secure AI #AWSreInvent

こんにちは、コンサル部＠大阪オフィスのTodaです。

今回、AWS re:Invent 2024 に初参加をさせていただき色々なセッションに参加をしております。
今日は「Rocket Mortgage社が安全なAIで顧客体験を向上させる方法」というセッションに参加しましたので内容についてレポートします。

公式セッション紹介（日本語訳）

・Session Title
SEC214 | How Rocket Mortgage elevates client experiences with secure AI

・Session Details
Generative AI promises industry revolutions, but secure adoption is crucial. Discover how Rocket Mortgage leveraged AWS’s generative AI services while navigating security requirements. Learn how they elevated client service, personalized client experiences, and boosted productivity, all while implementing stringent data protection and trust-building measures. Gain insights into Rocket Mortgage’s strategies and best practices for unlocking generative AI’s potential and how generative AI helps them achieve their mission to “Help Everyone Home,” while prioritizing robust security. Accelerate your own AI initiatives, securely, by learning from this trailblazer’s approach.

生成AI（ジェネレーティブAI）は産業に革命をもたらす可能性がありますが、安全に導入することが重要です。Rocket Mortgage（ロケット・モーゲージ）がAWSの生成AIサービスを活用しながら、どのようにセキュリティ要件を満たしたのかをご紹介します。彼らがどのようにして顧客サービスを向上させ、個別化された体験を提供し、生産性を高めたのか、そして厳格なデータ保護と信頼構築の対策を実施したのかを学びましょう。さらに、生成AIの可能性を引き出すためのRocket Mortgageの戦略やベストプラクティスについても知ることができます。彼らが「すべての人に家を」という使命を達成するために、生成AIがどのように役立っているのかを理解しながら、堅牢なセキュリティを優先する方法を探りましょう。この先駆者のアプローチから学び、安全にAIプロジェクトを加速させてください。

セッションの概要

まず始めに、当セッション内で出てくる「Rocket mortgage(ロケットモーゲージ)」はアメリカの住宅ローンなどを取り扱う会社になります。
当セッションでは人間が得意な通話などの対応は人がおこない、通話内容の分析・書き起こし・やり取りをパーソナライズしてたのやり取りに生かすことでリードコンバージョンを33%増加するという話から始まります。
ただし、AIを利用する中でセキュリティの考慮は重要でその実践の紹介と脅威モデリングやリスク評価の重要性について解説がされています。
また、AIを活用したクライアント対応システムの構築とデモ環境による説明もされ、
最終は、セキュリティと効率性のバランスを取る方法についての説明がされて質問タイムに入る流れになっています。

セッションの説明・レポート

当セッションではJeremy Ware氏 (Amazon シニアセキュリティソリューションアーキテクト) と Dan Vasquez氏 (ロケットモーゲージ、AI戦略担当副社長)2名でのセッションになっています。

アジェンダの内容は下記になっておりRocket mortgageの方で利用されているAIツールの説明と導入する際に必要だったセキュリティの課題、AWSを利用に関する戦略、セキュリティ対策についての説明がありました。

• ロケットのミッションとAIのユースケース
  • 外部クライアント対応アシスタント
  • ロケットロジック
  • ナビゲーター内部アシスタント
  • 全ての安全上の考慮事項
• AWSに関する戦略とソリューション
  • AWSセキュリティのベストプラクティス
  • 脅威のモデルと緩和策
• セキュリティ実装
  • 外部クライアント対応アシスタントのケース
• まとめ

「外部クライアント対応アシスタント」について概要と利用されている技術の説明がありました。
当ツールは24時間365日利用可能な外部ユーザ向けのAIアシスタントで通話の分析、書き起こし、クライアントのやり取りをパーソナライズする作業を行います。
当対応により年4万時間の節約や70%はセルフサービスで処理出来るようになった点、初回通話での解決率が10%増加した点について言われています。

続いて、上記通話分析をするロジック部分について当セッションでは「ロケットロジック」に関する利用リソースの説明がありました。
当ロジックの説明の後は実際のツールに関してのデモがあり、パーソナライズされた内容からAIがどのように回答するかなどデモが行われています。

続いてAIを利用する中で顧客の信頼を維持するためのAIの安全性の考慮について4つの項目が挙げられ、各項目の詳細を話していく内容になっています。
当説明ではOWASP Top 10 for LLMに関する説明とスコープ毎の優先すべきOWASPの脆弱性に関する説明がされています。

• データセキュリティ管理
• 規則厳守と企業リスク
• 責任あるAIの実践
• プロンプトインジェクション攻撃

その上での予防および緩和戦略として Amazon BedrockやSageMakerなどクラウドサービスを活用する事でモデルとデータを保護する案について説明がありました。
また従来のアプリケーションのベストプラクティス(OWASPなど)にも従うことで安全性を高めることについても説明されています。

最後に、今回説明に出てきた「外部クライアント対応アシスタント」について脅威に関するポイントについて説明があり、それを対応した場合の処理の流れについて説明がおこなわれています。

まとめ

当セッションでは AIを活用したビジネスをサポートするツール構築に関して、セキュリティをどう担保しつつ活用していくかについて事例を含め紹介がありました。
AWSのサービスにはセキュリティをAWS側は担保してくれているサービスもあるためそれらを活用する事で企業側での負担を軽減して導入していく案についても説明がありました。
またセキュリティと効率性に関してもバランスが大切という説明もあり、アプローチに関してもRocket mortgage社の事例を参考に紹介がされていました。

さいごに

今回クラスメソッドからは 100名を超えるメンバーで参加をしております。
既にブログで出ています通り、参加メンバーはみんなクラニャンのジャケットを来て参加をしております。
現地に参加をされている方はぜひ、メンバーにお声がけを頂けたらと思います。

また、re:Invent終了後は参加メンバーにて各拠点毎にAWS re:Invent ふりかえり勉強会「re:Growth 2024」も各オフィスで開催を予定しております。
現地の様子を聞いてみたい方もぜひご参加頂けたらと思います。